iT邦幫忙

2025 iThome 鐵人賽

DAY 2
0
生成式 AI

LangChain 愛 Azure AI系列 第 2

Day02-Azure 現在 AI 相關服務的現況與 AI Foundry 介紹

  • 分享至 

  • xImage
  •  

在開始實作之前,我們先了解一下 Azure 平台上現有的 AI 相關服務。Azure 經過多年的布局,已經形成一個相當完整的 AI 服務生態系。以下是目前 Azure 上幾個主要的 AI 服務及其現況

Azure OpenAI

Azure OpenAI:這是 Azure 與 OpenAI 合作提供的雲端服務,讓開發者可以使用 OpenAI 的大型語言模型(如 GPT-4o、GPT-5 等)以及 Embedding 模型。Azure OpenAI 提供與 OpenAI API 相容的介面,但在 Azure 環境中運行,具備企業級的安全和合規支援。要使用 Azure OpenAI 服務,原則上 OpenAI 的新功能發佈後,Azure OpenAI 都會很快跟上。

Azure Cognitive Services

Azure Cognitive Services(認知服務)是早年 Azure 提供的一系列預建 AI 功能的統稱,涵蓋五大領域:

Vision(影像服務):包括計算機視覺(Computer Vision API)可對圖像進行標記、描述和文字辨識,面部識別(Face API)、影像分類、辨識自訂影像等功能。

Speech(語音服務):包括語音轉文字(Speech to Text)、文字轉語音(Text to Speech)、語音翻譯等。Azure 的語音服務品質相當高,可支援多種語言的精準識別和自然流暢的語音合成。

Language(語言服務):這部分包括文本分析(Text Analytics)、語言理解(LUIS,以 Conversational Language Understanding 服務提供)、翻譯(Translator)等。特別值得一提的是,Text Analytics 提供關鍵詞抽取、情感分析,以及針對醫療領域的 Text Analytics for Health,可從醫療文本中抽取病徵、藥物等專業資訊。

Decision(決策服務):這類服務包括異常偵測(Anomaly Detector)、內容審查(Content Moderator)等,幫助在應用中做出智慧決策或過濾內容。

Search(搜尋服務):Azure 提供的搜尋服務叫做 Azure AI Search(前稱 Azure Cognitive Search)。這是一個雲端搜尋引擎服務,可對結構化或非結構化資料進行索引和查詢,近期也支援向量搜尋和混合搜尋,非常適合構建 RAG(檢索增強生成)的知識庫。

Azure Cognitive Services 通常可以透過REST API或各語言的 SDK 使用。開發者可以選擇單項服務(例如僅使用 Computer Vision),或創建一個多服務資源(Cognitive Services 多服務帳戶)取得通用的端點和金鑰,以使用多種能力。我們後續的文章將介紹如何利用 LangChain 的工具包整合這些服務,使 Agent 具備視覺、語音和文檔理解的能力。

我曾經的最愛,Azure ML

Azure Machine Learning 是 Azure 的機器學習平台,提供從資料準備、模型訓練、模型微調到部署的全流程支援。不過在我們這系列中,我們主要聚焦於調用現有的預建模型服務,因此 Azure ML 涉及較少,有興趣的朋友可以去看我前幾年寫的鐵人賽的文章。

Azure AI Agent Service

Azure AI Agent Service 可以被視為 Azure AI Foundry 中的一部分或相關服務,用於部署和管理 Agent。所謂 Agent,在 LangChain 中指的是具備推理能力、能動地使用工具去完成任務的智能體。在 Azure AI Agent Service 中,你可以將定義好的 Agent 部署成一個雲端服務,Azure 會負責運行這個 Agent,包括工具使用、記憶管理、並行調度等繁瑣細節,開發者只需調用 Agent 的 API 即可得到結果。我們在本系列稍後將探討 Azure Agent Service 的使用。

Azure AI Content Safety

Azure AI Content Safety 是內容安全審查服務,幫助開發者識別並過濾不當內容(例如暴力、色情、仇恨言論等)。這在 AI 應用中特別重要,因為我們常常需要對模型的輸入輸出做內容控管。Azure 的內容安全服務可以與 OpenAI 模型結合使用,確保整體應用符合使用政策。

統一時代來臨:Azure AI Foundry

Azure AI Foundry 是 Microsoft 在近年推出的新平台,可視為 Azure 上的下一代 AI 統合介面。Azure AI Foundry 將模型、代理(Agent)和觀測管理等功能集中在一個介面中。在 Foundry 中,你可以探索各種模型(包括 OpenAI 模型和第三方模型如 Mistral、Meta 等)、可以建立 Agent 來結合工具完成更複雜的任務,並可以對這些應用進行監控和管理。Azure AI Foundry 也提供了統一的 API/SDK(Azure AI Inference SDK)來調用不同模型和不同的 Azure AI 的服務。

我們可以簡單地想成 AI Foundry 是 Azure AI 相關服務的統一專案入口,也就是說,過去其他的 Azure AI 的服務,幾乎都可以在 AI Foundry 建立,同樣一套 SDK。目前依然保留了在 AI Foundry 外建立其他 AI 服務功能,不過微軟應該會大一統。

後續我們會有專門的文章來介紹 Azure AI Foundry 及如何在 LangChain 中使用它。

以上概覽了 Azure AI 服務的現況。明天開始我們就來建立第一個 Azure OpenAI 吧!


上一篇
Day 01-LangChain 即將升 1.0 的現況(順便談為什麼要和 Azure 整合)
下一篇
Day03-完整圖文建立Azure OpenAI
系列文
LangChain 愛 Azure AI3
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言